当波士顿动力狗在大街上游荡时,谁还会在乎无人驾驶出租车呢?
“科技向善月度观察”由腾讯研究院汇编,每月15日整理最新一月全网科技向善相关资讯、观点与实践产品,为科技向善的探索注入全新燃料。
微信“青少年模式”
有的事实也在提醒我们,技术不是万能的,尤其是看起来无所不能的 AI。
2020 年初,YouTube 大规模裁撤人工内容审核团队,全部替换为 AI 进行审核。这项举措被视为提升审核效率和精准度的选择,并能够有效缓解人工审核员的心理创伤问题。作为结果,YouTube 在今年二季度的所有视频的内容初审都交由 AI 进行审核,没有人工参与。但是,YouTube 却在近期紧急叫停了这项举措,并大量返聘年初解雇的人工审核团队。这是因为 AI 审核的规则相较于人工更为严苛,并且会造成误伤。今年一季度被鉴定违规并下架的视频仅有 660 万,但 AI 替代人工之后,被下架的视频几乎翻了一番。而在被 AI 下架的 1100 万个视频中,有 32 万提出申诉,最后近半数通过二次审核并重新上线,与之对照,经人工审核下架后进行申诉的视频,只有 25% 左右可能重新上线。
有时AI本身就是麻烦的根源。9月26日,一个ID为“the gentle metre”的账号在美国最大论坛Reddit注册上线,而这个账号很快将论坛搅动得鸡飞狗跳。“the gentle metre”每隔几分钟就会在各大版块上发表评论,无论是什么话题,都能发布长篇大论,并且不乏有获得高赞的回答。许多人都以为账号背后是一个涉猎广泛的无聊人士,但直到一个周后,有人开始质疑,它的每个回答都是6段话,非常符合GPT-3的生成模式。很快,一个名为“哲学家AI”的APP发布回应,确认这些内容出自其APP,有人逆向工程了“哲学家AI”,从而绕过验证码,批量生成回帖。目前,哲学家AI已经修补了漏洞,而Reddit也开始删除the gentle metre的部分回帖,一场GPT-3的灌水闹剧就这样草草收场。如果不是利用它的人去“广撒网”,又或者是精心筛选结果,恐怕这个回帖机器人很难被发现。
AI的复杂性一如既往,在带来了这么多问题之后,AI同样是许多问题解决的方案。一款名为Fake Catcher 的算法就成为 DeepFake 的克星。近年来,DeepFake已经不再是少数科研人员掌握的技术,它被越来越多动机不良的人应用到各类领域,比如炮制色情影片或虚假新闻。9月,一篇刊登在 IEEE PAMI 上的论文提出了一种能够识别DeepFake视频的新方法。文章思路别出心裁,它通过识别人脸面部因心跳血流产生的微弱变化来判断视频是否为深度合成,其原理就在于DeepFake的假人脸无法还原这种因血液流动而造成的变化。基于这一主张,研究人员设计了一套基于卷积神经网络的模型,名为Fake Catcher。Fake Catcher能够从不同的 DeepFake 视频中提取:(1)关键的人脸区域;(2)读取 PPG 信号,并将两者组合成一个时空模块(称为一个 PPG 元素),通过对PPG元素进行学习,最终就可以输出结果。在 Face Forensics + +、CelebDF 等常用的假脸数据集上,Fake Catcher 的准确率已经超过90%。更厉害的是,它还能够识别出假视频所用的是哪种 DeepFake 算法。
除了成为 DeepFake 的狙击手,在儿童自闭症诊断领域,AI 也取得了新的突破。儿童自闭症诊断是一个长期性的难题,过去,儿科医生会推荐大部分疑似儿童到专家处诊断并开出治疗处方,流程往往长达数月甚至数年。而在本月,美国儿童健康公司 Cognoa 宣布其研究引进AI 技术,融入自闭症谱系障碍(ASD)诊断,并且已提交美国食品及药物监管局(FDA)审批。如果最终获得 FDA 审批,Cognoa 的这套诊断方案就能帮助全美约 6 万 4 千名普通儿科医生及早诊断自闭症,并使得自闭症儿童获得及时的护理与治疗。
自动驾驶同样是上一月度的重点。谷歌再度创造了历史,其旗下自动驾驶子公司 Waymo 宣布在美国亚利桑那州凤凰城,正式面向一般大众开放无人驾驶叫车服务。10 月 8 日起,Waymo 开始向 Waymo One 会员开放无人驾驶搭乘服务,接下来,还会上架应用程序让更多人使用无人驾驶服务。Waymo 表示,他们会在短期内提供真正的无人服务,期间将不会有车辆操作员在车上。早在 2017 年,Waymo就开始了测试活动,申请早鸟测试的用户能够在每天任意时段呼叫无人驾驶车辆。2018 年,Waymo 扩大了测试用户群体,而在两年后的今天,Waymo 认为其无人驾驶车服务已经足够成熟,可以面向一般大众开放。
而在国内,百度Apollo自动驾驶出租车正式上线,在北京部分区域开放自动驾驶打车服务的测试工作。北京用户可以在海淀、亦庄等地的自动驾驶出租车站点,无需预约,直接下单免费试乘自动驾驶出租车服务。从百度地图自动驾驶轿车服务点乘坐提醒来看,目前只支持在法规限定范围内的推荐站点上下车,每辆车同一时间最多可接待 2 位乘客。细节规定,乘坐人需年满 18 至 60 周岁,车内也会有安全员随时保障行车安全。在 9 月 15 日的百度世界 2020 大会上,百度公司首席执行官李彦宏曾预测:“5 年之内,无人驾驶技术会进入规模化商用阶段,中国的一线城市将不再需要限购限行,10 年之内,基本解决拥堵问题。”
但自动驾驶到底是带来了便利,还是引发更多担忧,对此的判断似乎要假以更多时日。
9 月 16 日,曾经轰动一时的“第一例自动驾驶杀人案”终于有了初步判决结果。美国亚利桑那州马里科帕县的检察官表示,坐在驾驶位的安全员 Rafaela Vasquez 被控过失杀人罪,但她所在的公司 Uber 在这起事件中不会面临刑事指控。2018 年 3 月,Rafaela Vasquez 作为安全员乘坐的 Uber 自动驾驶汽车在亚利桑那州进行测试时,撞到了一位推着自行车横穿道路的女性,致其死亡。根据美国国家运输安全委员会(NTSB)调查结果显示,当时车辆时速为 62km/h,而道路限速 50km/h。在整起事故当中,安全员并未担负起她应尽的责任。众所周知,在当下自动驾驶测试中,绝大多数车辆都会配备 1~2 名安全员,如果车辆出现意外,安全员需要随时接管。但是在本案中,安全员 Vasquez 并没有专注在道路上,而是时不时低头看右下方中控台上的手机。在行车记录的视频当中,事故前半秒钟她才抬起头来,但显然为时已晚。
NTSB 的最终调查结果认为,安全员事发时看手机分散了注意力,并且 Uber“安全文化不足”导致事故发生。从事实上看,这起事故是由安全员的疏忽与自动驾驶技术问题共同造成的。技术存在明显的纰漏之处,在尚不完善的情况下无法避免;同样,安全员的疏忽也无法完全避免。两个主体都存在现有条件下无法规避的缺陷,却承担了截然不同的惩罚。从法律上给出的结果,人承担了全部的刑事责任,技术无罪。而不承担刑事责任的 Uber 需要做的就是改进自动驾驶技术的缺陷。
当科幻书的预言或者电影上的情景在现实中重演时,普通个体的恐慌也就在所难免。
9 月 26 日,加拿大安大略省北部的人行横道上,一条四条腿的“机械怪物”竟然在半夜肆无忌惮地乱跑。根据路人拍下的视频,可以判断这只“怪物”就是波士顿动力生产的机器狗。这段视频被上传到 Twitter 之后,引发激烈讨论。众多网友表示画面很让人恐慌,也有网友认为,这不免让人担心这种机器人会被用作不良的用途,毕竟波士顿动力一开始就是为了军事目的而生产这些狗。
这些事件告诉我们,人类还没有准备好面对一个科幻世界。对于意在将新技术尤其是超出大众常规认知的新技术推向市场的公司来说,除了炫酷的功能之外,更要考虑这种技术或者说模式能够在多大程度上被寻常人所接受。
个人数据隐私保护的问题仍然是当今各界关注的重点。9 月 12 日,创新工场董事长兼 CEO 李开复在参加某峰会时表示:“我们早期帮助他们(旷视)找到了合作伙伴,包括美图、蚂蚁金服,让他们拿到了大量人脸数据,帮助他们分析各个行业怎么切入。”这一番话在网络上引起了争议,所涉公司纷纷出了发布声明,而李开复也很快出来道歉,并称“我的口误,给三家公司带来困扰,深感歉意”“数据一直存在合作方客户服务器中,不涉及任何数据的共享与传输”。
在技术不断发展的今天,如何处理好个人信息利用和保护已经成为备受关注的问题。这一问题得到了各方的关注。苹果在最新的 iOS 14版本中,大幅度提高了对用户隐私的保护力度。模糊定位、相册读取范围控制、APP跟踪保护、APP隐私政策更新等等举措,带来了很多在隐私保护上的新探索和尝试。
根据官网展示,在新版系统中,Safari浏览器的“智能防跟踪”功能能够阻止广告商跨网站跟踪用户,而该功能是默认开启的,用户无需设置就可以收到保护;在“地图”、“相册”等应用上,大部分功能的实现都是在用户设备上完成的,而不是在云端,因此用户隐私并不会被Apple所获取。除此之外,广告跟踪功能在iOS 14中被设置为默认打开状态,能够在用户首次使用APP时提醒是否允许该用户访问与物理设备相关的标识符,最大限度实现对用户隐私的保护。
而在刚刚结束的WWDC上,苹果也发布了隐私安全方面的四条核心原则,可以视作是这家全球市值第一的大公司的“隐私价值观”:
以上就是本期“科技向善月度观察 9.15-10.15”的全部内容。在接下来的时间,我们将继续为你带来与科技向善相关的更多内容,如果你有相关意见和思考,可以通过tencentresearch@tencent.com联系我们。
信息来源:
[1]cnBeta:https://www.cnbeta.com/articles/tech/1033389.htm,9月25日
[2]DONEWS:https://www.donews.com/news/detail/1/3116287.html,10月10日
[3]theverge:https://www.theverge.com/2020/9/21/21448916/youtube-automated-moderation-ai-machine-learning-increased-errors-takedowns,9月21日
[4]量子位(ID:QbitAI),https://mp.weixin.qq.com/s/CRZchnVpyduEtCZwZjNMUg,10月9日
[5]硅星人(ID:guixingren123),https://mp.weixin.qq.com/s/W8I7RZywqBS06G-msyABaw,10月8日
[6]globenewswire:https://www.globenewswire.com/news-release/2020/09/23/2098045/0/en/Cognoa-Seeks-FDA-Clearance-for-Breakthrough-Digital-Autism-Diagnostic-Device-After-Successful-Pivotal-Study.html,9月23日
[7]donews:https://www.donews.com/news/detail/1/3116306.html,10月10日
[8]速途网:http://www.sootoo.com/content/749496.shtml,10月12日
[9]极客公园(geekpark):https://mp.weixin.qq.com/s/6KNEDdkZucQjwNPWrAb1yw,9月26日
[10]Apple:https://www.apple.com.cn/privacy/features/
/ 往期文章
/ 腾研报告
你“在看”我吗?